Le Palazzo del Carmine, tel qu’il se présente aujourd’hui, fut construit en 1738 parallèlement à la restructuration de l’église. Dès le milieu du siècle précédent, un couvent existait déjà à cet endroit, probablement aménagé à partir de structures antérieures. Ce couvent accueillait les pères Lucchesi, invités à Vasto par le marquis Diego d’Avalos pour y fonder un collège dédié à l’éducation des jeunes, enseignant notamment la grammaire, la rhétorique, la philosophie et la doctrine chrétienne.
En 1762, le cloître, aujourd’hui cour intérieure du Palazzo, fut achevé. Dans les années qui suivirent, ces murs virent la formation des principaux intellectuels vastesi de l’époque, parmi lesquels Gabriele Rossetti.
En 1809, le collège fut supprimé et le bâtiment fut affecté au commandement de la Gendarmerie. Avec le retour des Bourbons sur le trône de Naples, il devint une école publique, puis le siège des bureaux municipaux et la première localisation du Musée archéologique fondé par Luigi Marchesani.
Après les accords du Latran, le Palazzo fut confié aux pères Gabriellistes de Montfort, qui y établirent un collège ultérieurement transféré à l’Institut Immacolata.
Le Palazzo del Carmine devint alors le siège de la Curie archiépiscopale et fut par la suite cédé à celle-ci par la municipalité.
Ces dernières années, grâce à l’implication de certaines associations, le complexe a été rouvert au public pour diverses activités, comme des projections cinématographiques et des visites de l’intéressant réseau de caves datant du XVIIIe siècle.